（来源：上观新闻）
它是一种跨数据中♑🇨🇳心的大模型推☑理服务🚝架构，🍕核心是㊙👣将长上下文请🔍求的Pref🐙ill计算，选🇸🇲🇰🇬择性卸载到☘☺独立的、🤽♀️算力密集🇰🇮🦹♂️型的专用集群完📉🇧🇾成，再把生💧🐄成的KV Ca☔🎯che通过⛩🈚普通以太网传输🕜🤰到本地PD🛁👩👧集群执行Dec🧗♂️ode👻🔶。
海康威视在AI上⚒的布局，🇯🇲🇯🇲起点远早于这一轮🍶大模型浪潮👔。配比如果定死，❎很容易🚔出现一边忙🇺🇲到飞起，一🤫💁♂️边闲成狗的情🈁🇧🇩况出现，算力㊙🐿利用率大打✏折扣🔭😚。但是，随着 🎨☪AI 大模🎌🇧🇻型推理需求不👻断提升，具有更💨高效能、更大🇹🇭☎数据吞吐🤛量和更低功🦢🔟耗特性的非GP⏸GPU 架♥构算力产品开始加🆑🔰速部署👩👧👦。
